Reality AI 模型压缩与性能优化
📘 30章 · 实战目录
v1.0
01
模型压缩概述
为什么需要模型压缩？Reality AI场景下的挑战与机遇。
02
模型剪枝 (Pruning)
结构化剪枝与非结构化剪枝原理与实践。
03
权重量化 (Quantization)
INT8/INT4量化原理、训练后量化与量化感知训练。
04
知识蒸馏 (Knowledge Distillation)
教师-学生网络架构、软标签与硬标签蒸馏。
05
轻量化网络设计
MobileNet、ShuffleNet、EfficientNet等经典结构解析。
06
模型蒸馏与剪枝的联合优化
如何组合使用多种压缩技术。
07
硬件感知优化
针对NPU/GPU/DSP的算子优化与内存布局。
08
模型转换与部署
ONNX、TensorRT、OpenVINO等工具链实战。
09
性能基准测试
延迟、吞吐量、内存占用、功耗等指标评估。
10
边缘端部署实战
在树莓派/Jetson Nano上部署压缩模型。
11
模型压缩工具链
TensorFlow Lite、PyTorch Mobile、NCNN等框架对比。
12
自动模型压缩 (AutoML)
使用NNI、Optuna进行自动化压缩搜索。
13
稀疏化训练
动态稀疏训练与静态稀疏模式。
14
低秩分解
SVD分解、CP分解在模型压缩中的应用。
15
模型加密与安全
压缩过程中的知识产权保护。
16
模型压缩的数学基础
信息论、优化理论在压缩中的应用。
17
模型压缩的评估指标
压缩率、加速比、精度损失权衡。
18
模型压缩在NLP任务中的应用
BERT、GPT等大模型压缩。
19
模型压缩在CV任务中的应用
YOLO、ResNet等视觉模型压缩。
20
模型压缩在语音任务中的应用
RNN-T、Conformer等模型压缩。
21
模型压缩的工程化实践
CI/CD流水线中的模型压缩集成。
22
模型压缩的调试与可视化
使用Netron、TensorBoard分析压缩效果。
23
模型压缩的版本管理
DVC、MLflow在压缩模型管理中的应用。
24
模型压缩的量化误差分析
如何定位和修复精度损失。
25
模型压缩的硬件适配
不同芯片厂商的量化标准差异。
26
模型压缩的在线学习
持续学习场景下的模型压缩策略。
27
模型压缩的联邦学习
分布式场景下的压缩与通信优化。
28
模型压缩的行业案例
自动驾驶、安防、工业质检等领域的实践。
29
模型压缩的未来趋势
神经架构搜索、可微分剪枝等前沿技术。
30
综合实战项目
从零构建一个完整的模型压缩与部署流水线。